Keep It InMind: Benchmarking the Implicit-Association Blind Spot in Agent Memory
InMind:Agent 记忆系统隐式关联盲点基准
🧭 Agent 记忆评估 · 隐式关联盲点 ★ 深度解读
University of Science and Technology of China · Metastone Technology
提出 InMind 基准,揭示基于检索的记忆系统在间接查询中因缺乏相似线索而系统性地遗漏关键记忆,差距从 84% 跌至 14%
📌 工作参考价值(4 点)
- 业务场景的隐式关联风险:电商、推荐系统中用户历史行为(如拥有宠物)与当前查询(搜索“百合花”)之间缺少 token 或语义重叠,基于嵌入的检索会遗漏这种安全/偏好信息。可借鉴 InMind 的任务构造方式,主动设计跨域桥接问询,测试自身系统是否会“记得但不用”。
- 评估范式:三重控制分离失败原因:InMind 用直接查询控制存储成功、in-context 控制模型桥接能力、目标召回检查检索是否送达,将检索失败与存储或知识缺失剥离开。业务内部评测可复现这一范式,快速定位问题出在写入、模型还是检索端。
- 路由决策是核心开放问题:always‑in‑state 诊断(仅维持一次 200 行 profile)恢复大部分性能(68.8%),而 MemoryOS 这类带有可见 profile 的混合系统仍差很远,说明关键并非“有可见状态”,而是“决策哪些记忆必须始终可见”。对推荐中的长期记忆,可引入重要性路由,如根据未来可能桥接的风险(健康、安全)对记忆打标,强制进入上下文。
- 嵌入增强不能根本解决问题:从 384 维换到 3072 维 embedding,目标召回上升但应用率仍在低位,证明单纯增大 embedding 并无法掌握药理、法律等冷门桥接知识。在工程中不应仅依赖 embedding 相似度,可考虑配合结构化知识图谱或启发式规则来显式表达某些隐式关联。